Lúc khởi đầu Chiến tranh Thái Bình Dương, Takao đặt dưới quyền chỉ huy của Thuyền trưởng Đại tá Hải quân Asakura Bunji và được phân về Hải đội Tuần dương 4 dưới quyền chỉ huy của Phó Đô đốc (sau này là Đô đốc) Kondo Nobutake cùng với các con tàu chị em với nó Maya, Chokai và Atago, và được trao nhiệm vụ hỗ trợ cho cuộc chiếm đóng Malaya và Philippines. Vào cuối tháng 12 năm 1941, nó bắn pháo hỗ trợ cho cuộc đổ bộ lên vịnh Lingayen trên đảo Luzon tại Philippines.

Đầu năm 1942, Takao hoạt động tại khu vực biển Java trong khuôn khổ Trận chiến biển Java Sea vào đầu tháng 3. Vào ngày 1 tháng 3, một trong số các thủy phi cơ của Takao đã ném bom chiếc tàu buôn Hà Lan Enggano. Đêm hôm sau, Takao và Atago tiêu diệt chiếc tàu khu trục Pillsbury cũ của Hải quân Mỹ và nó chìm mà không có người nào sống sót. Sáng sớm ngày 4 tháng 3, Takao, Atago, Maya và hai tàu khu trục của Hải đội Khu trục 4, Arashi và Nowaki đã tấn công một đoàn tàu vận tải gần Tjilatjap. Chiếc xà lúp HMAS Yarra của Hải quân Hoàng gia Australia đã ra sức bảo vệ cho đoàn tàu vận tải trong một giờ rưỡi trước khi bị đánh chìm chỉ với 34 người sống sót trong tổng số 151 thành viên thủy thủ đoàn.[2] Sau đó, các tàu tuần dương Nhật đã đánh chìm ba chiếc trong đoàn tàu vận tải: tàu chở dầu Francol, tàu quân nhu Anking, và một tàu quét mìn. Hai tàu chở hàng Hà Lan cũng bị chiếm giữ.

Vào tháng 6 năm 1942, Takao và Maya hỗ trợ cho cuộc chiếm đóng quần đảo Aleut. Vào ngày 3 tháng 6 năm 1942, những thủy phi cơ trinh sát của nó bị các máy bay tiêm kích Curtiss P-40 của Không lực Lục quân Hoa Kỳ trú đóng tại Umnak tấn công và hai chiếc bị bắn rơi. Ngày 5 tháng 6, Takao bắn rơi một máy bay ném bom B-17 Flying Fortress.

Vào tháng 8 năm 1942, Takao tham gia Chiến dịch Ka, một đợt tăng cường cho lực lượng Nhật Bản trong trận Guadalcanal, và tham gia Trận chiến quần đảo Santa Cruz vào ngày 26 tháng 10. Một cố gắng có chủ định để bắn phá căn cứ của Mỹ tại sân bay Henderson đã dẫn đến trận Hải chiến Guadalcanal vào sáng sớm ngày 15 tháng 11 năm 1942. Thiết giáp hạm Kirishima, được sự hỗ trợ của các tàu tuần dương Takao và Atago, đã đối đầu cùng các thiết giáp hạm Mỹ Washington và South Dakota. Cả ba tàu chiến Nhật đã bắn trúng South Dakota nhiều phát đạn pháo khiến nó hư hỏng nặng; Takao và Atago còn bắn ngư lôi Long Lance nhằm vào Washington nhưng đều trượt. Tuy nhiên, Kirishima bị Washington bắn hỏng và phải tự đánh đắm sáng hôm sau. Atago bị hư hại trong khi Takao thoát ra an toàn nhưng phải rút lui về Truk.

Đầu năm 1943, Takao hỗ trợ cho Chiến dịch Ke, cuộc triệt thoái lực lượng Nhật khỏi đảo Guadalcanal. Sau đó, dưới quyền chỉ huy của Inoguchi Toshihira, nó hoạt động tại khu vực Trung Thái Bình Dương từ căn cứ Truk. Ngày 5 tháng 11 năm 1943, trong khi đang được tiếp nhiên liệu tại Rabaul trong quần đảo Bismarck, Takao bị các máy bay ném bom bổ nhào SBD Dauntless từ tàu sân bay USS Saratoga tấn công, và bị trúng hai quả bom khiến 23 người thiệt mạng và hư hại hệ thống lái. Nó bị buộc phải quay về Yokosuka tại Nhật Bản và vào ụ tàu để sửa chữa.

Ngày 22 tháng 10 năm 1944, Takao gia nhập "Lực lượng Trung tâm" của Đô đốc Takeo Kurita và khởi hành từ vịnh Brunei để tham gia Trận chiến vịnh Leyte. Sang ngày 23 tháng 10, khi đang di chuyển ngang qua đảo Palawan, lực lượng Nhật Bản bị hai tàu ngầm Mỹ tấn công. Lúc 06 giờ 34 phút, Takao trúng hai quả ngư lôi phóng từ tàu ngầm USS Darter, làm hỏng hai trục và ngập nước ba phòng nồi hơi. Nó bị buộc phải quay trở về Brunei, và được hộ tống bởi các tàu khu trục Naganami và Asashimo, chiếc tàu phóng ngư lôi Hiyodori và tàu vận tải Mitsu Maru. Lực lượng này bị các tàu ngầm Darter và Dace tiếp tục săn đuổi cho đến sau nữa đêm ngày 24 tháng 10, khi Darter mắc cạn vào một bãi san hô tại bãi đá ngầm Bombay và Dace phải ở lại để cứu hộ.

Takao bị hỏng nặng đến mức không thể sửa chữa tại Singapore, cũng như không thể (và không có khả năng) kéo về Nhật Bản để sửa chữa. Vì vậy một phần đuôi tàu được cắt rời ra, và nó được cho neo đậu và sử dụng như một pháo đài phòng không nổi để phòng thủ Singapore. Trong khi thả neo tại đây, nó là mục tiêu của cuộc tấn công được thực hiện bởi tàu ngầm bỏ túi Anh XE-3 (Chiến dịch Struggle) vào ngày 31 tháng 7 năm 1945 dưới sự chỉ huy của Trung úy Ian Edward Fraser và Thủy thủ James Joseph Magennis.[3] Magennis đã gắn được sáu quả "mìn hàu" vào thân chiếc Takao; và khi phát nổ đã tạo ra một lỗ thủng lớn 20 m x 10 m. Đa số các khẩu pháo của Takao bị mất tác dụng, hệ thống điều khiển hỏa lực bị phá hủy và nhiều ngăn bị ngập nước.

Vào ngày 5 tháng 9 năm 1945, căn cứ hải quân của Nhật Bản tại Eo biển Johor chính thức đầu hàng lực lượng Anh, và việc tiếp quản chiếc Takao, lúc đó vẫn có một số ít thủy thủ duy trì hoạt động, diễn ra vào ngày 21 tháng 9 năm 1945. Cuối cùng nó được kéo ra Eo biển Malacca để sử dụng như một mục tiêu tác xạ cho chiếc tàu tuần dương hạng nhẹ HMS Newfoundland và bị đánh chìm vào ngày 19 tháng 10 năm 1946.